普华永道中国：GenAI赋能：贸易业务风险持续监测智能化方案助力国资国有企业实现及时预警与管理闭环

生成式人工智能时代的到来，即代表着机遇，也代表着不可忽视的潜在风险。普华永道一直以为客户提供可信赖的人工智能解决方案为己任，在拥抱人工智能带来便利的同时，普华永道在提供智能化方案的同时也着力于陪伴客户一同应对生成式人工智能应用的四大固有风险：

1. 数据风险：如果存在错误信息传播、未经批准使用数据或因采用低质量数据训练生成式人工智能模型的情况，通常容易导致模型的误导性和输出有害内容。普华永道的解决方案完全适配本地化部署与训练的要求，以保障经授权的训练数据仅在受客户管理的内网网络环境内使用。如果客户选择了云版本的解决方案，普华永道也有专门的训练数据团队，对客户数据进行严格的筛选与脱敏处理，以保障敏感信息与个人信息不会被用于开放模型的训练与迭代。

2. 模型和偏见风险：如果在语言模型开发或训练的过程中，违反道德或负责任的人工智能原则，将会严重影响输出内容的准确性。在实施过程中，普华永道将会协助客户从通过网信办算法备案的模型库中，筛选模型基座。同时，在模型的训练与微调过程中，实施团队在关注模型的公正性与准确性之外，也会通过监督式微调（SFT，Supervised Fine-Tuning）进一步规范模型输出的内容。

3. 提示或输入风险：当用户向人工智能模块提供粗浅提示或问题时，通常会导致模型生成误导性、不准确或不良回答。而普华永道提供的解决方案，将通过大量的预训练、前后端工程化开发等方式，梳理并规范用户或“其他系统”的提问或提示词行为，从而避免因“用词不当”而导致模型产生不准确的结果。

4. 用户风险：当用户在不知情的情况下采纳了错误信息或通过提示词故意提供错误信息，可能会导致用户依据错误信息进行判断或者获取了越权的信息。一方面，普华永道的解决方案在各个人工智能处理环节，都提供了追溯查询功能并加强对用户的科普与培训，打开生成式人工智能处理链的黑盒，让用户可以定期自我回顾并反馈人工智能处理结果的公正性与准确性；另一方面，普华永道在实施过程中，设计并加入了生成式人工智能所能理解的用户权限校验方案，以避免权限校验的失败。